Sasha Cherny sinh ở Odessa trong một gia đình Do Thái đông con. Bố mẹ phải làm lễ rửa tội ở nhà thờ rất sớm cho Aleksandr để được vào học trường gymnazy nhưng cậu bé thường xuyên bỏ học đi ăn mày. Chuyện này được đăng trên báo và một quan chức có tên là K. K. Rochet hay làm từ thiện ở Zhitomir đã nhận Aleksandr về nuôi dạy. K. K. Rochet là người có ảnh hưởng đến việc phát triển năng khiếu thơ ca của Sasha Cherny.

Từ năm 1900 đến năm 1902 Sasha Cherny phục vụ trong quân đội và một thời gian ngắn làm việc trong ngành hải quan. Năm 1905 chuyển về Sankt-Peterburg và in thơ trào phúng ở các tạp chí: «Зритель», «Альманах», «Журнал», «Маски», «Леший»… Sasha Cherny bắt đầu nổi tiếng từ thời kì này và, như nhà văn Korney Chukovsky viết: "hễ mua được tờ tạp chí mới thì trước hết bạn đọc đi tìm đọc thơ của Sasha Cherny…"

Từ năm 1906 đến năm 1908 sống ở Đức, học tại Đại học Heidelberg. Trở về Sankt-Peterburg Sasha Cherny cộng tác với nhiều tạp chí và báo in hai tập thơ và trở thành nhà văn thiếu nhi cũng nổi tiếng không kém thơ. Những năm Thế chiến I ông tham gia quân đội và viết tập thơ Chiến tranh (Война). Năm 1920, không thừa nhận chính quyền cách mang, ông cùng vợ đi sang sống ở châu Âu (đầu tiên ở Kovno – Litva, sau ở Berlin – Đức) in tác phẩm ở các tạp chí Nga hải ngoại. Từ năm 1924 sống ở Paris và tham gia tích cực vào đời sống văn học của cộng đồng Nga ở Pháp. Năm 1929 ông mua đất xây nhà ở làng La Favière, vùng Provence, miền nam nước Pháp làm nơi qua lại của nhiều văn nghệ sĩ Nga sống ở Pháp.

Sasha Cherny qua đời ngày 5 tháng 7 năm 1932 sau khi chạy sang giúp chữa cháy ở một trang trại gần nhà, khi trở về ông nằm nghỉ và mãi mãi không còn ngồi dậy. Phần mộ ông hiện ở nghĩa trang Lavandou, miền nam nước Pháp. Ngoài sáng tác thơ văn, ông còn để lại nhiều bản dịch tác phẩm của Heirich Heine, Dehmel Rixard, Knut Hamsun… Đỉnh cao sáng tạo của ông là tập thơ được nhạc sĩ thiên tài Shostakovich phổ nhạc.